再論超便宜40G Ethernet與InfiniBand比較
http://www.ebay.com/…/Mellanox-ConnectX-3-Vpi…/202039082064…
像這邊有 MCX354A-QCBTC VPI 網卡只要NT 2600元 (不含運)
實際上此為40G IB或是10G 乙太網路卡
詳細規格
http://www.mellanox.com/…/prod_adapt…/ConnectX3_VPI_Card.pdf
VPI 版本最大特色是可做為infiniband 或網路 nic 用韌體工具切換
https://community.mellanox.com/docs/DOC-1131
不管是作為接頭IB or 乙太網路都用QSFP+ (QSFP14)線材
說明書
http://www.mellanox.com/…/ConnectX-3_Pro_Ethernet_Single_an…
驅動 FW
http://www.mellanox.com/page/products_dyn…
VMWare esxi 目前只有看到6.0
http://www.mellanox.com/…/Mellanox_MLNX-NATIVE_ESX_Driver_f…
如何在Proxmox VE 5 上安裝
https://forums.servethehome.com/index.php…
使用IB 理論上比乙太網路延遲時間更短 但是線的距離較短.要先啟用SM (IB Subnet Manger)
還有要轉換到其他1G,10G網路麻煩. 因此必須看環境應用
這邊有文件可以給大家參考比較
HowTo Configure SR-IOV for ConnectX-3 with KVM (InfiniBand)
https://community.mellanox.com/docs/DOC-2368
HowTo Configure SR-IOV for ConnectX-3 with KVM (Ethernet)
https://community.mellanox.com/docs/DOC-2365
至於某位大大說的40G卡要支持 Accelerated Switch And Packet Processing (ASAP2)
成本太高了 我們這次先不討論
但是最基本的
1.SR-IOV
2.PCI Pass-through 一定要有支持
3. Dpdk 支持是舊版https://community.mellanox.com/docs/DOC-2197?forceNoRedirect=true
mellanox connectx-3 後都有支持,但主機環境就不一定有
OSSLab Geek Lab 有遇過Server不支援, 軟體Firewall效能大概低了30%